LESSRec: Level-Specific History Modeling for Semantic ID-Based Recommendation
LESSRec：面向语义ID推荐的层级特定历史建模
🧭 生成式推荐 · Semantic ID 层级建模 ★ 深度解读
Chongqing University · Griffith University
发现并利用同层历史对语义ID预测更有效，提出层级隔离编码与层级对齐注意力
📌 工作参考价值（4 点）
- 如果你的语义 ID 生成式推荐或商品 token 化采用多层语义码本，预测第 r 层 code 时，把用户行为序列按 code 层级拆分，只让 decoder cross-attention 看到同一层历史 token。这可以用 attention mask 低成本实现，线上推理不增加候选大小，但能减少交叉层噪声。
- 保留 item 级语义序列作为补充：对每个历史 item 的各层 token 做平均池化 + MLP 残差，得到行为序列里的 item summary。再通过独立的 cross-attention 分支与层级分支做加权融合（alpha≈0.5）。类似 RAG/Agent 检索里同时提供细粒度 token 证据和 item 级摘要证据。
- 工程部署：LESSRec 的 mask 方式仍会计算全量 attention 矩阵；要用 LESSRec+ 把 encoder 按层级分组、每组只处理对应层序列，序列长度从 L*T 降到 T，attention 计算量下降 L^2，训练显存和每 epoch 时间显著降低（论文：峰值显存 -39.2%，每 epoch -33.7%），适合电商长行为序列。
- 如果要做长历史 / 长序列生成式推荐，层级隔离 + 分组 encoder 可以缓解长序列带来的无关 token 稀释，长历史桶收益更明显（+46.7%/+53.3%），值得在用户行为长度较大的场景优先实验。